Algoritmul care analizează moralitatea deciziilor: primul pas către o inteligență artificială umană

Ar trebui să sacrificăm viața unei persoane pentru a salva viețile altor cinci?

Pentru oamenii de știință socială, dilemele ipotetice cu consecințe grave, pe viață și pe moarte, joacă un rol important în teoretizarea despre primele principii filozofice, normele etice și psihologia morală.

Dar un studiu recent care a analizat 100.000 de fire de discuție pe Reddit a constatat că non-filozofii se confruntă cu etica și moralitatea într-o varietate de dileme dezordonate, comparativ minore – cum ar fi cum să se ocupe de socrii care se comportă greșit la o nuntă sau cum să rezolve neînțelegerile legate de utilizarea corectă a frigiderului la locul de muncă.

„În ultimul deceniu, inteligența artificială și în special algoritmii de învățare automată au devenit mult mai puternici și sunt utilizați la scară largă”, a spus profesorul Lexing Xie, care conduce proiectul Humanising Machine Intelligence. „Oamenii sunt interesați să doteze algoritmii cu abilități de raționament moral pentru ca aceștia să interacționeze mai bine cu oamenii.”

Cercetatorul ANU School of Computing, Josh Nguyen, a prezentat recent Mapping Topics in 100.000 Real-life Moral Dilemmes la Conferința Internațională pe Web și Social Media (ICWSM) găzduită de Institutul de Tehnologie Georgia din Atlanta.

„Atlanta este un oraș foarte aglomerat, cu o mulțime de autostrăzi, dar are parcuri frumoase, pe unul l-am vizitat în timp ce eram la jogging într-o dimineață”, a spus Nguyen.

A primit ovații pentru rezumatul constatărilor lucrării și pentru călătoria de 15.000 km.

Reddit a oferit un mediu bogat în ținte

Prof. Colin Klein de la Școala de Filosofie ANU a identificat forumul Reddit „Am I the Asshole” (AITA) ca o sursă bogată de date pentru a investiga învățarea automată în sfera morală. Populara comunitate online adună deliberarea morală pe rând în câte o situație dificilă.

În primul rând, utilizatorii creează un thread prin rezumarea evenimentelor care îi obligă să ia o decizie morală sau etică dificilă. Apoi, zeci sau chiar sute de comentatori cântăresc. Judecățile colective sunt atinse prin comentarii de vot în sus și în contra, marcate de una dintre cele cinci etichete: YTA (you are the asshole), NTA (not the asshole), ESH (everyone sucks here), NAH (no asshole here), și INFO (more information needed).

Anul trecut, Nguyen a fost trimis să efectueze cercetarea, colaborând cu profesorii Klein și Xie, precum și cu colegii studenți ANU Georgiana Lyall, Alasdair Tran, Minjeong Shin și Nicholas Carroll.

„Cred că conținutul moral apare peste tot pe rețelele sociale”, a spus Nguyen. „Dar acest subreddit special a oferit un teren fertil prin sprijinirea discuțiilor dintr-o comunitate largă cu un set de reguli stricte care îl fac destul de sănătos.”

Echipa a analizat 100.000 de fire – cel mai mare studiu de acest gen până în prezent – ​​folosind algoritmi pentru a identifica grupuri de subiecte. Participanții umani au ajutat la perfecționarea algoritmului, hotărând când să combine grupuri similare și cum să atribuie desemnări tematice firelor.

Cum au fost grupați algoritmii

Datele rezultate identifică 47 de subiecte semnificative care se încadrează în cinci meta-categorii: identități, aspecte, procese, evenimente și lucruri. „Aspecte”, de exemplu, include subiecte precum igiena, maniere și siguranță, în timp ce „Evenimente” include nunți, despărțiri și petreceri.

Lucrarea explică că algoritmii de grupare au fost concepuți pentru a permite suprapunerea clusterelor, „deoarece atât intersecțiile, cât și golurile dintre două clustere intuitive (cum ar fi familia și banii) pot fi semnificative și interesante”.

Ei au descoperit că majoritatea dilemelor morale includ combinații de subiecte numite „perechi de subiecte”.

Perechile de subiecte care apar frecvent au inclus prieteni/maniere, comunicare/sănătate mintală și sărbători/maniere.

„Modelul pe care l-am folosit ne oferă o clasificare „soft”, ceea ce înseamnă că toate subiectele sunt probabile, dar unele sunt mai mult decât altele”, a spus Nguyen. „Există mai multe motive pentru care am decis să folosim două subiecte pentru a defini fiecare postare, dintre care cel mai important este că participanții umani la studiul nostru au avut tendința de a alege două subiecte pentru a descrie o postare, chiar dacă am lăsat numărul de subiecte nerestricționat.”

Datele au arătat, de asemenea, că anumite subiecte au atras comentarii și dezbateri despre alte subiecte – de exemplu, copiii și religia – în timp ce unele subiecte le-au respins pe altele, de exemplu, despărțirile și treburile casnice.

Cercetările anterioare din acest spațiu, a spus Nguyen, s-au concentrat pe automatizarea deciziilor morale prin proiectarea modelelor de învățare automată pentru a clasifica și a încerca să prezică rezultatele.

„Dacă majoritatea verdictelor, să zicem 70 la sută, merg într-o singură direcție, modelele au ales-o ca fiind corectă”, a spus Nguyen. „Credem că au fost săriți câțiva pași pentru că, în primul rând, problemele morale pur și simplu nu au un singur răspuns. Există o dezbatere uriașă, iar oameni cu perspective diferite vin cu alegeri diferite.”

„Așadar, dacă vrem să construim inteligență artificială care se potrivește cu utilizatorii umani la nivel moral și etic, trebuie să înțelegem cum oamenii vin cu aceste decizii: procesul, nu doar produsul final.”

Diferențe de abordare

Studiul sugerează că științele sociale ar trebui să se uite mai puțin la deciziile de viață și de moarte pe șinele de tren sau în sala de operație, care sunt rare în experiența de zi cu zi, și mai mult la conflictele minore prin care majoritatea oamenilor evaluează moralitatea.

În timpul prezentării sale din Atlanta, Nguyen a fost întrebat dacă fiecare postare pe AITA este despre o problemă morală sau dacă au existat și postări care abordează eticheta sau normele convenționale. „A fost o întrebare interesantă, deoarece, uneori, coautorii mei nu erau de acord cu definiția încărcării morale. Conversația a fost foarte provocatoare”, a spus el.

Nicholas Carroll, un doctorand la Școala de Filosofie ANU care a contribuit la cercetare, a spus că discuțiile provocate de descoperirea a „100.000 de dileme” vor intriga oamenii de științe sociale și filozofii.

„Majoritatea filozofilor fac distincție între normele morale, cum ar fi norma conform căreia ar trebui să ne respectăm promisiunile, și normele convenționale, cum ar fi norma conform căreia ar trebui să permitem pasagerilor să iasă dintr-un tren aglomerat înainte de a încerca să ne urcăm”, a spus Carroll. „Acest lucru a avut ca rezultat ca filozofii să elimine din domeniul moralității diverse dileme care se încadrează în partea convențională a acestei distincții. Dar, prin contrast, dilemele despre care postează non-filozofii de pe AITA sunt în mare parte despre ceea ce filozofii ar considera norme convenționale – dileme legate, de exemplu, de comunicare, familie, prieteni, maniere și relații.

Diferite tipuri de moralitate

Carroll și Nguyen au fost de acord că una dintre cele mai interesante revelații din noile cercetări a fost modul în care filosofii și non-filozofii gândesc diferit despre moralitate.

„Există un decalaj între ceea ce cred filosofii despre moralitate și ceea ce cred oamenii obișnuiți despre moralitate”, a spus Nguyen. „Aceste scenarii nuanțate sunt întâlnite mult mai des decât dilemele morale idealizate la care filozofii se gândesc de ani de zile.”

Studiul subliniază că un principiu de bază al filozofiei confucianiste timpurii este că provocările și schimburile de zi cu zi pe care oamenii le experimentează sunt de o importanță profundă pentru moralitate.

„Filozofii ar putea face bine să acorde mai multă atenție acestor tipuri de interacțiuni – în acest fel ar aduce filosofia morală contemporană mai în concordanță cu filosofia morală a grecilor antici și a confucianilor, de exemplu”, a spus Carroll.

Dezbaterile exprimate pe AITA contestă distincția tradițională dintre normele morale și normele convenționale precum regulile de etichetă.

„Tărâmul moralității este mult mai mare decât cred în mod obișnuit filosofii că este”, a spus Carroll.